Hungry Hungry Hippos
https://arxiv.org/abs/2212.14052
https://github.com/HazyResearch/H3
Transformer
の代わりになるかもしれないやつ。略称は
H3
ちなみに、この名前でググる同じ名前のおもちゃがヒットする。
https://www.youtube.com/watch?v=G4pBhdv3RWk
HiPPO
→
LSSL
→
S4
→
H3
の流れになっている